IT как оружие

Интересная книга которая заставляет задуматься (особенно после прочитанного Великого инквизитора, раздумий на тему жизни итд) о сильных мира сего. Кто здесь главный? Государство или бигтех, который контролирует и владеет информацией (более подробной чем государство) о всех гражданах и иногда работающий сразу в нескольких государствах.

Затрагивается вопрос о правильном взаимодействии с государством для безопасности граждан и защиты государственности. Автор считает что государство служит народу поэтому взаимодействие необходимо для всего лучшего (какая наивность).

Учитывая быстрое развитие технологий мы даже не успеваем их обезопасить. Например, соцсети могут использоваться для разжигания ненависти. Ответственность за безопасность лежит на разработчике. Призывают более ответственно относиться к своему продукту и продумывать безопасность.
Перед дипломатической конференцией, созванной в 1932, Альберт Эйнштейн, величайший ученый своего времени, выступил с предупреждением, которое так и осталось неуслышанным. Технический прогресс, предостерегал он, «мог бы сделать жизнь людей беззаботной и счастливой, если бы развитие человеческого общества не отставало от технических достижений»...Зачастую войны возникают из-за того, что человечество не поспевает за инновациями, постоянно опаздывая и делая слишком мало для контроля над новыми технологиями.

В борьбе против терроризма и преступности бигтех должен давать информацию только на законные требования властей. Даже не смотря на общественную реакцию после терактов Майкрософт придерживались политики что любые запросы данных должны были быть законны. Должны проверить законны ли требования данных. Также стоит учитывать сложности если данные находятся на сервере другой страны - тогда необходимо согласие той страны.

Вопрос о взаимодействии на граждан через соцсети (например с целью революции) соцсети не должны пресекать (ради великой свободы слова), а только предупреждать от кого информация (например, от Иностранного телеканала). Очень смешно наблюдать как свобода слова, с помощью которой Америка завоевала своё положение теперь бьёт против их демократии (манипуляции наших слонов из фабрики троллей).

После атаки WannaCry (разработке из АНБ попавшей в Северную Корею) которая затронула кучу компьютеров по всему миру Майкрософт решили создать что-то вроде Женевской конвенции для киберпространство. Основные идеи:

Технодипломатия - взаимодействие правительств, гражданского общества и бигтеха

Защита персональных данных. Впервые появилась в Европе в 1995, но чаще всего соблюдалась только на территории Европы. Американские компании работающие в Европе не соблюдали никакие нормы. Это привело к созданию GDPR. Он обязывал компании:

Доступ к интернету. Доступ к интернету и завоз современных технологий это экономическая данность иначе будет невозможно конкурировать и развиваться. Например в районах без интернета более высокая безработица и средняя зп и они не смогут конкурировать с районами в которых есть интернет. Майкрософт использовали свободные телевизионные частоты для интернета так-как проведение кабеля экономически невыгодно, а спутниковый интернет с маленькой скоростью и высокой задержкой.

О четвёртой технологической революции. О том что теперь важны не технологии, а люди которые могут их создать и разработать. Фигня о гендерном/расовом/национальном разнообразии и о обеспечении условий для привлечения талантов которые могут создать новые технологии. Рассуждения о кризисе иммиграционной политики США и о том что именно она позволила экономически и технологически доминировать над всем миром (например приглашение немецких учёных ракетчиков).

Про ИИ. Опасность восстания машин скорее фантастична и не актуальна. Более актуальна проблема предвзятости ИИ так как он обучается на предвзятых данных (например плохо распознаёт чернокожих потому-что мало примеров по сравнению с белыми). Принципы работы:

Распознавание лиц. Технология довольно опасная так-как при использовании например для распознавания преступников возможны ошибки что вызовет неудобства. Также такая технология позволит следить за неугодными людьми 24/7. Чтобы этого избежать предлагается продавать такие технологии исключительно добросовестным пользователям, а государство должно пользоваться такими механизмами исключительно с ордерами. Также должно предупреждаться о том что идёт распознавания лиц. Желательно чтобы такие системы были доступны для тестирования и регулированы государством.

Регулирование по мнению некоторых убивает конкуренцию, но некоторые считают что она позволяет сделать конкуренцию и технологии более безопасной для общества.

Заметив, что ИИ скоро заменит переводчиков-синхронистов, он запнулся, осознал свою бестактность и повернулся к переводчице. «Простите», — сказал он. Переводчица не растерялась. «Не волнуйтесь, — спокойно ответила она. — В IBM мне говорили это лет 20 назад, но я все еще здесь».
Этот разговор высвечивает важный момент. Одно дело точно предсказать, какие профессии может заменить ИИ, и совсем другое дело назвать срок, когда это произойдет. Не раз на протяжении моей четверти века в Microsoft меня поражала способность ведущих разработчиков предвидеть, куда движется вычислительная техника. Однако предсказания сроков не отличались особой точностью. Если уж на то пошло, то люди склонны к излишнему оптимизму и неизменно предполагают, что все изменится быстрее, чем это происходит в действительности. Как заметил Билл Гейтс, «мы всегда преувеличиваем изменения, которые произойдут через два года, и преуменьшаем изменения, 15. которые случатся через десятилетие»
ИИ вместо человека. В некоторых областях он действительно может заменить его, но не сразу во всех (например в медицине). Скорее всего переход будет происходить постепенно если компании не решат сэкономить на рабочих и не заменят сразу всех на ИИ. Для некоторых это будет шок, возможно случиться экономический кризис, но к примеру после появления автомобилей появилось множество работы по их обслуживанию. Также они развили сферу кредитования (так-как автомобиль 2 по стоимости предмет семьи после дома). Но резкая замена в США лошадей (1/3 была заменена) на автомобили косвенно привела к великой депрессии (так-как перестали выращивать корм для лошадей, его заменили на товары для людей что обвалило цену на них, а следовательно и зарплату всего сельхоз сектора). Остаётся надеяться что государства и люди смогу быстро отреагировать на такие изменения.

США и Китай. Невозможность конкуренции компаний США в Китае и наоборот связанна с экономическими ограничениями которые они сделали. Также наблюдается разница в менталитете (конфуцианство, коллективизм в Китае и греческая философия, индивидуализм, дух предпринимательства в США). Но для дальнейшего развития желательно сотрудничество этих двух стран. Эти страны не могут жить без друг-друга

Открытые данные. У ИИ 2 основных составляющих:

Это время огромных перспектив, но вместе с ними и новых проблем. Цифровые технологии в буквальном смысле слова становятся одновременно и инструментом, и оружием. Они возвращают нас к словам Альберта Эйнштейна, который в 1932 г. напоминал людям о преимуществах машинного века, однако призывал человечество не допускать, чтобы развитие нашего 5 общества отставало от технического прогресса продолжающим снабжать человечество . Нам, как людям, все новыми технологиями, также необходимо привносить больше гуманизма в технологию.

Как говорилось в предыдущих главах, технология сегодня оказывает крайне неравномерное экономическое влияние, создавая огромные преимущества и богатство для одних и, одновременно, оставляя других позади из-за уничтожения рабочих мест и отсутствия широкополосного подключения в некоторых местах.

Технология меняет лицо войны и мира, создает новые театры военных действий в киберпространстве и новые угрозы демократии, которые связаны с атаками и дезинформацией, спонсируемыми государствами. Помимо прочего, она усиливает поляризацию местных сообществ, подрывает принцип неприкосновенности частной жизни и открывает для авторитарных режимов новые возможности по организации беспрецедентной слежки за своими гражданами. По мере развития ИИ эти изменения будут лишь ускоряться.

Государство должно регулировать бигтех (в разумных пределах). Бигтех должен не сопротивляться этому, а помочь сделать эти ограничения разумными и не мешающими развитию технологий и прислушиваться к госудраству, обществу и конкурентам (даже если мнения расходятся именно в споре рождается истина и новые идеи). Бигтех должен нести ответственность за технологии и соблюдать свои принципы (например права человека). Бигтех родился благодоря свободе и открытости и должен стремиться сохранить их для будущих поколений. Быстрое развитие опасно, если технологическая компания будет двигаться быстрее скорости мысли, т.е. просто перестанет думать о более широких последствиях появления своих технологий. Не стоит думать об остановке или бояться технологических инноваций, ими надо управлять!